{
 "cells": [
  {
   "metadata": {
    "collapsed": true
   },
   "cell_type": "markdown",
   "source": [
    "#### Retrieval模块的设计意义\n",
    "Retrieval直接翻译过来即\"检索\"，Retrieval模块包括与检索步骤相关的所有内容，例如数据的获取、切分、向量化、向量存储、向量检索等模块。\n",
    "常被应用于构建一个\"企业/私人的知识库\"，提升大模型的整体能力。"
   ],
   "id": "ab565678caf37a9"
  },
  {
   "metadata": {},
   "cell_type": "markdown",
   "source": [
    "#### 大模型的幻觉问题\n",
    "拥有及以后，确实扩展了AI工程的应用场景。\n",
    "但在专有领域，大模型无法学习到所有的专业知识细节，因此在面向专业领域知识的提问时，无法给出可靠准确的回答，甚至会\"胡言乱语\"，这种现象称为\"大模型的幻觉\"。\n",
    "目前没有百分之百解决这种情况的方案。\n",
    "当前大家普遍达成共识的一个方案：\n",
    "    首先，为大模型提供一定的上下文信息，让其输出会变得更稳定。\n",
    "    其次，利用RAG，将检索出来的文档和提示词输出给大模型，生成更可靠的答案。\n",
    "\n",
    "#### RAG解决方案\n",
    "可以说，当应用需求集中在利用大模型去回答特定私有领域的知识，且知识库足够大，那么除了微调大模型外，RAG就是非常有效的一种缓解大模型推理\"幻觉\"问题的解决方案。"
   ],
   "id": "266ae6d7307ecff9"
  },
  {
   "metadata": {},
   "cell_type": "markdown",
   "source": [
    "#### RAG的优缺点\n",
    "    优点\n",
    "        1、相比提示词工程，RAG有更丰富的上下文和数据样本，可以不需要用户提供过多的背景描述，就能生成比较符合用户预期的答案。\n",
    "        2、相比模型微调，RAG可以提升问答内容的时效性和可靠性。\n",
    "        3、在一定程度上保护了业务数据的隐私性。\n",
    "\n",
    "    缺点\n",
    "        1、由于每次问答都涉及外部系统数据检索，因此RAG的响应时延相对较高。\n",
    "        2、引用的外部知识数据会消耗大量的模型Token资源。"
   ],
   "id": "ed1ee671debbd74d"
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "Python 3",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 2
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython2",
   "version": "2.7.6"
  }
 },
 "nbformat": 4,
 "nbformat_minor": 5
}
